การเปลี่ยนแปลงพื้นฐานในแนวทางเบย์เซียนอยู่ที่สถานะทางปรัชญาของพารามิเตอร์ที่ไม่ทราบค่า $\theta$ ซึ่งแตกต่างจากสถิติแบบฟรีเควนติสท์ที่มองว่า $\theta$ เป็นค่าคงที่ที่ไม่ทราบค่า แต่คงที่ ขณะที่แนวทางเบย์เซียนมองว่า $\theta$ เป็น ตัวแปรสุ่มซึ่งทำให้เราสามารถวัดความไม่แน่นอนได้ผ่านการวัดความน่าจะเป็นก่อนหน้า $\Pi$
การสร้างโมเดลเบย์เซียน
โมเดลเบย์เซียนที่สมบูรณ์ถูกกำหนดโดยคู่ $(\{f_{\theta} : \theta \in \Omega\}, \Pi)$ การอนุมานเบย์เซียนไม่ใช่เพียงแค่การใช้กฎของเบย์ แต่เป็นการกระทำอย่างตั้งใจในการเพิ่ม การแจกแจงความน่าจะเป็นก่อนหน้า ลงในโมเดลการสุ่มตัวอย่างในฐานะองค์ประกอบสำคัญสำหรับการอนุมาน
สถานะรวมของความรู้ของเราถูกจับภาพโดยการแจกแจงร่วม $\pi(\theta) f_{\theta}(s)$ ฟังก์ชันนี้เชื่อมโยงข้อมูลที่สังเกตได้ $s$ และพารามิเตอร์ที่ไม่ทราบค่า $\theta$ เข้าด้วยกันในกรอบความน่าจะเป็นที่มีความต่อเนื่องเดียวกัน
ข้อความความน่าจะเป็นโดยตรง
ในแนวทางนี้ $\theta$ ถูกควบคุมโดยความหนาแน่นของความน่าจะเป็น $\pi(\theta)$ ซึ่งทำให้เราสามารถสร้างข้อความความน่าจะเป็นโดยตรงเกี่ยวกับพารามิเตอร์ เช่น $P(\theta \in A)$ ซึ่งเป็นไปไม่ได้ทางตรรกะในกรอบแบบฟรีเควนติสท์ ที่ซึ่ง $\theta$ ไม่มีการแจกแจง จึงทำให้ข้อความเหล่านี้ไม่สามารถนิยามได้
ตัวอย่างในโลกความเป็นจริง: การวินิจฉัยทางการแพทย์
ในการวินิจฉัยโรคหายาก พารามิเตอร์ 'คงที่' คือ ว่าผู้ป่วยมีโรคหรือไม่ ในแนวทางเบย์เซียน เราพิจารณาสถานะของโรค $(\theta)$ เป็นตัวแปรสุ่ม หากอัตราการพบโรคมี 0.1% (ความน่าจะเป็นก่อนหน้า) และการตรวจ (โมเดล $f_{\theta}$) ให้ผลบวก เราไม่เพียงแต่ดูความแม่นยำของการตรวจเท่านั้น แต่เราพิจารณาความน่าจะเป็นร่วมของการมีโรคและตรวจพบผลบวก เพื่อกำหนดความน่าจะเป็นใหม่ของการป่วย